NVIDIA giới thiệu nhà xây dựng trình cắm hỗ trợ G, cho phép AI tích hợp với LLMS và phần mềm

Nvidia đang bổ sung các plug-in tùy chỉnh cho Project G-Assist, cho phép người dùng điều chỉnh AI của Nvidia theo nhu cầu của họ. Công ty này đã ra mắt G-Assist Plug-In Builder dựa trên ChatGPT, giúp G-Assist tương tác với nhiều LLM và phần mềm khác nhau. Công cụ xây dựng plug-in này mở rộng chức năng của G-Assist bằng cách thêm các lệnh mới và kết nối với các công cụ bên ngoài. Người dùng có thể tạo mã được định dạng đúng với AI và tích hợp vào G-Assist, cho phép thực hiện nhanh chóng các chức năng hỗ trợ AI phản hồi theo lệnh văn bản và giọng nói.

Các plug-in này có thể thực hiện nhiều chức năng, từ kết nối với các mô hình ngôn ngữ lớn đến những tác vụ nhỏ như điều khiển âm nhạc. Nvidia cho biết các plug-in này sử dụng API để cho phép các phần mềm và dịch vụ giao tiếp với nhau. Các nhà phát triển cũng có thể sử dụng ngôn ngữ lập trình như JSON và Python để tạo ra các công cụ có thể tích hợp vào G-Assist. Nvidia cũng đã biến G-Assist từ một AI tập trung vào game thành một công cụ có thể tùy chỉnh cho nhiều mục đích khác nhau, không chỉ giới hạn ở lĩnh vực game.

Với plug-ins, người dùng có thể truy cập vào một mô hình ngôn ngữ nhỏ nhạy bén chạy trên GPU RTX tại chỗ để có kết quả suy diễn nhanh và riêng tư. Nvidia có một kho GitHub cung cấp mọi thứ cần thiết để xây dựng plug-ins cho G-Assist, bao gồm hướng dẫn và tài liệu tùy chỉnh chức năng. Các nhà phát triển có thể định nghĩa các chức năng trong JSON và đặt tệp cấu hình vào thư mục chỉ định, nơi G-Assist sẽ tự động tải và giải thích chúng.

Người dùng có thể gửi plug-in để xem xét và có khả năng được đưa vào kho GitHub của NVIDIA, nhằm cung cấp tính năng mới cho người khác. Một số ví dụ về khả năng của plug-in đã được đưa ra, như G-Asist hỏi trợ lý AI Gemini của Google về việc chọn Legend trong Apex Legends, và một nhà phát triển sử dụng plug-in Twitch để kiểm tra xem một streamer có đang trực tiếp không, kích hoạt plug-in qua lệnh thoại.

Dự án G-Assist là trợ lý AI thử nghiệm của Nvidia, chủ yếu tập trung vào game. AI này giúp game thủ GeForce khắc phục sự cố hiệu suất, điều chỉnh cài đặt đồ họa và theo dõi hiệu suất. Chương trình là một mô hình ngôn ngữ nhỏ chạy trực tiếp trên GPU RTX thay vì trên đám mây, giúp cải thiện thời gian phản hồi và cho phép hoạt động ngoại tuyến. Theo dõi Toms Hardware trên Google News để cập nhật tin tức, phân tích và đánh giá mới nhất.

Hãy chắc chắn nhấn nút Theo dõi.

Nguồn: www.tomshardware.com/tech-industry/artificial-intelligence/nvidia-introduces-g-assist-plug-in-builder-allowing-its-ai-to-integrate-with-llms-and-software